Prompt就是我們給模型的指令,可能是一句話、幾段描述、或包含範例的模板。
我們跟AI說:「幫我寫一段自我介紹。」這句話就是所謂的User prompt。
如果想讓 AI 能記得角色、語氣、上下文,那就要用更結構化的方式來管理Prompt。
這時候,我們就會用到Prompt Engineering。
什麼是Prompt Engineering(提示工程)?
Prompt Engineering是一種設計、撰寫、優化輸入文字(Prompt),讓模型更準確產出想要結果的技術。簡單來說就是如何用對的方式問問題,讓AI給你想要的答案。
System Prompt(系統提示詞)
System Prompt是一種固定放在模型開頭的指令,用來設定模型的角色、語氣、風格、任務目標等,負責定調模型的行為。
ex.
如果我們沒有給模型System Prompt,
它可能不知道自己是誰,它只會依據機率來做文字接龍。但如果我們先設定System Prompt:
「你是一位善於用白話說明技術的講師,請清楚解釋以下概念。」
那模型就會以講師的語氣來回答,內容也會更結構化、有條理。
以圖上程式碼為例,如果我們沒給System Prompt,模型並不會知道自己是Llama,它只會依據機率來做文字接龍,但如果我們加了System Prompt,模型就會知道自己是Llama,並給正確的回覆。